Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

самого Элона Маска часто игнорировались). Однако сочетание методичного темпа профессиональной проверки фактов и более быстрой реакции толпы могло бы придать процессу большую легитимность в период значительного недоверия.

Трение: Не всегда плохо

Бесшовная структура социальных сетей способствует распространению вирусных слухов и реактивному поведению. Многие дизайнеры утверждают, что небольшое стратегическое трение может настроить людей на менее импульсивный и более рефлексивный лад, благодаря чему такие максимы медиаграмотности, как "Подумай, прежде чем поделиться", будет немного легче соблюдать. 79

Возможно, вы уже сталкивались с некоторыми раздражителями: если вы напишете комментарий, содержащий ненормативную лексику, некоторые платформы предупредят вас о том, что большинство пользователей так не разговаривают, с помощью всплывающего окна, спрашивающего, хотите ли вы еще опубликовать комментарий. Это способ тонко дать понять, что вы собираетесь нарушить социальную норму - и вы все равно можете это сделать, если захотите. Иногда интерстиции появляются поверх сообщения в социальных сетях (они закрашивают или размывают его), чтобы сообщить вам, что содержание под ним спорное или может быть тревожным; они создают кратковременное трение, чтобы вы могли решить, хотите ли вы еще нажать на кнопку, чтобы увидеть его. Некоторые платформы, например Twitter, в качестве эксперимента спрашивают пользователей, которые хотят перепостить статью, хотят ли они сначала прочитать ее. 80 Это мягкое напоминание о том, что заголовки могут вводить в заблуждение или быть приманкой, и что всегда полезно посмотреть, что находится внутри статьи, прежде чем усиливать ее.

Между скоростью и точностью всегда существовало напряжение. Профессиональная журналистика внесла трения в процесс обмена знаниями. Репортеры отправлялись подтверждать факты, а затем сообщали о своих выводах общественности. Конечно, мельница слухов (географически ограниченная) могла работать одновременно, но журналисты старались связаться с источниками, чтобы получить как можно более точную информацию.

Поскольку мельница слухов стала глобальной, стоит задуматься о стратегических трениях и за пределами индивидуального уровня. На биржах Уолл-стрит существует вмешательство, известное как "автоматический выключатель": если цена акций начинает колебаться из-за появления слухов или новостей, выключатели дают рынку время переварить новую информацию без колебаний акций, которые могут создать неоправданно плохие петли обратной связи. 81

Нам не нужно устанавливать автоматические выключатели для всех типов вирусного контента, но улучшение возможностей алгоритмов для быстрого обнаружения быстрой вирусности в определенных категориях - например, внезапного быстрого обмена одной и той же фотографией взрыва - может создать рынок идей, защищенный от манипуляций. Вместо того чтобы рассматривать раннюю вирусность как сигнал к распространению, например, фотографии, утверждающей, что это взрыв в Пентагоне, среди еще большего числа людей - чтобы помочь тренду стать правдой, - вместо этого она может быть признаком того, что нужно сделать обратное, временно сократить распространение. Затем фотография может быть оценена специалистами по проверке фактов, журналистами или органом, подобным Community Notes, чтобы определить, является ли она реальной или сгенерированной ИИ мистификацией. 82 Именно по этой причине компании социальных сетей в настоящее время изучают возможность нанесения машиночитаемых водяных знаков и других механизмов обнаружения генеративного ИИ на изображения и видеоконтент.

Кто-то будет кричать, что мельница слухов - это vox populi, и объявлять любые трения, препятствующие ей, "цензурой" или чем-то вроде скользкой дорожки к ней. Но мы признаем негативное влияние слухов и паники в других обстоятельствах, и стоит поэкспериментировать и с более медленными социальными медиа.

Американская традиция свободы слова основана на идее, что факты и ложь встретятся на рынке идей, что и те, и другие будут услышаны, и что хорошие идеи победят плохие. Однако наша нынешняя коммуникационная экосистема активно препятствует этому процессу. У нас не общественная площадь, а гладиаторская арена. Дискуссии на общественной площади не часто предполагают, что люди собираются, чтобы следовать за одним незадачливым человеком по улице, выкрикивая в его адрес непристойности в течение нескольких часов; ограничения на время, место и способ высказывания способствуют поддержанию гражданского дискурса на местах. Мы можем поэкспериментировать с тем, как они могут выглядеть в Интернете. 83 Применяя меры, которые создают дополнительные трения, пусть даже кратковременные, платформы могут справиться с новыми проблемами виртуальной общественной площади, поддерживая при этом принципы свободы слова. 84

Будущее за децентрализацией

Проектные меры могут улучшить экосистему социальных сетей в ее нынешнем виде. Но, скорее всего, социальные медиа не будут вечно оставаться горсткой бегемотов.

В 2018 году, когда рефобработка и теории преднамеренного подавления начали делегитимизировать модерацию контента в некоторых заказных реалиях, я начал задумываться о том, как выглядит федерализм в цифровую эпоху. Возможно ли создать консенсусную структуру во взаимосвязанном, но расходящемся онлайн-сообществе? Возможно ли создать правила модерации, которые устраивали бы большинство людей? Опросы постоянно показывают, что люди хотят умеренности в Интернете - большинство выступает за ограничение ложной информации и агрессивного контента. 85 Но в опросах редко спрашивают, как именно выглядит их идеальная система.

На Reddit применяется интересный федералистский подход к модерированию: помимо общеплатформенных правил, регулирующих серьезные нарушения, власть в основном находится в руках модераторов субреддитов (модераторов тематических форумов), добровольцев, которые создают и обеспечивают соблюдение конкретных правил и процессов обжалования для своих сообществ. 86 Если вы хотите, например, запретить людям размещать фотографии собак в вашем субреддите про кошек, вы можете это сделать. Правила изложены четко; если новый участник присоединяется и решает размещать собак, что ж, он видел правила и решил их нарушить, и модераторы примут меры. Постер с собакой может вопить о цензуре, но сообщество не будет ему сочувствовать. Участники собрались вместе, чтобы рассказать о своей любви к кошкам, приняв и приняв нормы сообщества. Они не хотят, чтобы их пространство с кошачьими фотографиями заполонили тролли с собачьими постами. И поэтому такой человек будет удален. Модерация под руководством сообщества часто считается более легитимной, чем централизованная модерация сверху; децентрализованная модель Reddit позволяет модераторам, которые являются членами группы и хорошо знакомы с ее нормами, принимать решения в зависимости от контекста. 87 Сообщество также имеет право удалять плохие комментарии и неинтересные сообщения, выступая в качестве неформальных модераторов и кураторов.

Но дизайн Facebook, Twitter и YouTube не подходит для подхода Reddit. Вместо этого, пока шли войны за модерацию, появились альт-платформы, созданные для удовлетворения модераторских наклонностей отдельных сообществ: Gab, Parler, Gettr, Truth Social и другие предприимчивые компании увидели возможность создать приятные вотчины для пользователей правого толка. Одну из компаний, Truth Social, поддерживал президент Дональд Трамп, которому запретили доступ в основные социальные сети за его роль в подстрекательстве к событиям 6 января. В другом, Gettr, активное участие принимал китайский миллиардер-диссидент Майлз Го, близкий соратник Стива Бэннона, что привело к уникальному сочетанию аудитории, состоящей из антикитайской коммунистической партии и пользователей MAGA. 88 Но произошло нечто